Магьосник от Ню Орлиънс казва, че оперативен агент от Демократическата партия му е платил да направи фалшивото автоматично обаждане на Байдън
НЮ ОРЛИАНС — Демократичен консултант, който е работил за конкурентна президентска кампания, е платил на магьосник от Ню Орлиънс да използва изкуствен интелект, за да се имитира Президентът Джо Байдън за автоматизирано обаждане, което сега е в центъра на многощатско разследване на правоприлагащите органи, според текстови съобщения, регистър на обажданията и транзакции на Venmo, които създателят сподели с NBC News.
Пол Карпентър казва той беше нает през януари от Стив Крамър — който е работил по достъпа до бюлетините за кандидата за президент на Демократическата партия Дийн Филипс — да използва AI софтуер, за да направи имитация на гласа на Байдън, призоваващ демократите от Ню Хемпшир да не гласуват на първичните избори за президент на щата.
„Създадох аудиото, използвано в автоматичното обаждане. Не съм го разпространявал“, каза Карпентър в интервю в Ню Орлиънс, където живее в момента. „Бях в ситуация, в която някой ми предложи пари, за да направя нещо, и аз го направих. Нямаше злонамереност. Не знаех как ще бъде разпространен.“
Карпентър – който държи световни рекорди в огъване на вилица и бягства с усмирителна риза, но няма постоянен адрес – показа на NBC News как създаде фалшивото аудио на Байдън и каза, че се е отзовал, защото съжалява за участието си в изпитанието и иска да предупреди хората колко лесно е да се използва AI за подвеждане.
Създаването на фалшивото аудио отне по-малко от 20 минути и струва само $1, каза той, за което му бяха платени $150, според плащанията на Venmo от Крамър и баща му, Брус Крамър, сподели той.
„Толкова е страшно че е толкова лесно да се направи“, каза Карпентър. „Хората не са готови за това.“
Carpenter сподели това, което според него е оригиналният аудио файл, създаден с Eleven Labs, който изглежда е пълна версия с по-високо качество на записа на обадете се на NBC News, за което беше съобщено по-рано.
Robocall привлече интензивно внимание от Ню Хемпшир и служители на федералните правоприлагащи органи за възможно нарушаване на щатските закони за потискане на избирателите и федералните телекомуникационни закони. Длъжностни лица споменаха името на компания от Далас, която е била използвана за извършване на автоматични телефонни обаждания до избиратели преди първичните избори в щата, и обещаха да разследват, позовавайки се на желанието да дадат пример на онези, които участват в първия известен пример за AI- генериран deepfake, използван злонамерено в американска политическа кампания. Властите не са посочили Карпентър или Стив Крамър като мишени на тяхното разследване.
Играчите
Стив Крамър е дългогодишен политически агент, работил е за десетки кампании в продължение на 20 години, включително на рапъра Йе (бивш Кание Уест) 2020 президентска кампания.
Крамър първоначално не отговори на множество искания за коментар. Дни по-късно той каза, че ще изчака да говори по въпроса, докато не публикува нещо в събота. „Моят коментар ще обясни всичко“, каза той в текст.
Кампанията на Филипс и самият кандидат изразиха възмущение, когато бяха попитани за предполагаемото участие на Стив Крамър, като казаха, че никога няма да работят с той отново и може да заведе дело, ако обвиненията се потвърдят.
NBC News не е видял доказателства, че кампанията е насочила Стив Крамър да създаде или разпространи автоматичното обаждане.
Записите на Федералната избирателна комисия показват, че Стив Крамър е бил платен от кампанията на Филипс през декември и януари. Плащанията бяха за работа по достъпа до бюлетините в Ню Йорк и Пенсилвания, която включва събиране на подписите, необходими за участие в гласуването. Кампанията заяви, че работата включва производство и разпространение на автоматично обаждане, което включва гласа на Филипс.
Плащанията, изброени в документите за финансиране на кампанията, показват, че Стив Крамър е извършил работа по гласуването
p>
„Ако е вярно, че г-н Крамър е имал някакво участие в създаването на дълбоки фалшиви роботизирани обаждания, той го е направил по собствено желание, което няма нищо общо с нашата кампания“, каза прессекретарят на Phillips Кейти Долан. „Основната идея на нашата кампания е важността на конкуренцията, избора и демокрацията. Отвратени сме да научим, че г-н Крамър стои зад това обаждане и ако обвиненията са верни, ние категорично осъждаме действията му. преди няколко седмици, след като изпълни договора си за събиране на подписи, за да помогне на кандидата да влезе в бюлетината в определените му щати и не е имало комуникация с него до късно в четвъртък.
Магьосникът и политическият консултант
Карпентър, който е роден в Хюстън и нарича себе си „дигитален номадски художник на живота“, не очакваше да се окаже в центъра на национален политически скандал, когато той казва, че се е запознал със Стив Крамър миналата година.
„Единственото нещо, което липсва на политическия цирк, е магьосник и ето ме тук“, каза Карпентър, който също е домакин на подкаст, създал е видеоклипове с инструкции за ментализъм и казва, че е изнасял концерти в 24 държави .
През последните няколко години той каза, че създава компютърни програми и експериментира с NFT, създаване на съдържание и AI.
Той кара мотоциклет със своята смесица дакел-чихуахуа, която носи очила за кучета. Политическите му възгледи са ексцентрични.
Той говори за вярата си в десни теории на конспирацията като „дълбоката държава“ и има „някои проблеми“ с първото кацане на Луната, но също така казва, че организира произведение на изкуството, където постави порцеланова тоалетна чиния върху звездата на бившия президент Доналд Тръмп на Алеята на славата в Холивуд и се преструва, че дефекира върху нея.
Той е организирал няколко подобни каскади, целящи да провокират , казва той, като например един, в който носеше само смокинов лист на Таймс Скуеър като израз на „радикална автентичност“, и друг, в който той се снима, изобразявайки различни американски архетипи, включително бял расист със свастика на челото, което според него е било за да покаже, че всички сме хора, независимо колко много може да се мразим.
Той и Стив Крамър бяха запознати чрез общ познат, за когото беше направил няколко уеб дизайн и работа по управление на социални медии, каза Карпентър и се заинтересува от опита си с AI.
Карпентър каза, че вярва, че Крамър работи за хората, чиито гласове е бил помолен да имитира и че гласовите проекти са били разрешени от кампаниите. Той не беше чувал за Филипс и каза, че не е запознат с работата на Крамър за кандидата.
Първите два проекта се представят за сенатор Линдзи Греъм, R-S.C., очевидно за да бъдат използвани в робо-анкети, питащи първичните президентски избиратели на Републиканската партия кой кандидат са подкрепили, каза Карпентър. Третият беше фалшивото аудио на Байдън, казващо на демократите да не излизат в Ню Хемпшир.
„Имайте проект за глас с изкуствен интелект“, Стив Крамър е написал на Карпентър на 27 септември, според текстовите съобщения, споделени от Карпентър с NBC News. Телефонният номер в тези текстови съобщения за Стив Крамър съвпадна с търсене в онлайн записи и също беше потвърден, докато се обръщахме към него за коментар. След това Стив Крамър изпрати на Карпентър аудио извадка от гласа на сенатора от Южна Каролина и каза, че ще изпрати „сценарий за анкета на Prez, за да съответства на гореспоменатия глас на SC.“
През януари, три дни преди първичните избори за президент на Ню Хемпшир, Стив Крамър отново изпрати съобщение на Карпентър, като каза, че му е изпратил сценарий по имейл. За плащане Стив Крамър след това насочва Карпентър към баща му, Брус Крамър, по неизвестни за Карпентър причини.
Транзакциите на Venmo показват акаунт с името Bruce Kramer, платил на Carpenter $150 в две транзакции на 20 януари.
„Нямам какво да кажа темата“, каза Брус Крамър в кратко телефонно интервю в четвъртък.
На 22 януари, когато NBC News за първи път разпространи новината за фалшивото автоматично обаждане на Байдън, Стив Крамър изпрати съобщение на Карпентър с връзка към историята заедно със съобщението „Шшшшшш“, на което Карпентър отговори „Gtfooh“, акроним, използван за изразяване на удивление.
Екранни снимки на регистрите на обажданията показват многобройни телефонни разговори между Стив Крамър и Карпентър през следващите няколко часа. Карпентър казва, че е изпълнил искането на Стив Крамър да изтрие цялата им имейл кореспонденция, която според него включва скриптовете за фалшивото автоматично обаждане на Байдън и други инструкции.
Ветеран демократичен стратег, който не познава Крамър лично получи спешно съобщение от него на 30 януари с молба да говори за автоматичното обаждане на Байдън. Оперативният агент, който пожела анонимност, за да говори за личния разговор, не отговори.
Кой е Стив Крамър?
Стив Крамър, президентът на неговата собствена малка фирма, е специалист по гласуване, който е работил върху десетки предимно демократични кампании през последните 20 години, включително някои високопоставени. Той има богат опит с автоматизирани обаждания, според щатските и федералните записи за финансиране на кампаниите.
Бил преди това в Ню Йорк, той има история на работа в политиката на Ню Йорк. Страницата му във Facebook го показва често на почивка и се наслаждава на нощния живот в Ню Орлиънс или Маями в шумна риза с питие в ръка.
Крамър е работил по множество големи кампании, но тази не е неговата първо се сблъсква с противоречия.
През 2020 г. той работи за независимата президентска кампания на рапъра, известен преди като Кание Уест, като му помага с достъп до бюлетините в няколко щата и говори на запис като топ стратег за кампанията. В крайна сметка Уест имаше проблеми с достъпа си до бюлетини в три щата и също беше критикуван за коментарите си за робството.
През 2021 г. бивш клиент, Сара Тиршуел, републиканка, която се кандидатира за кмет на Ню Йорк, съди Крамер. Тя го обвини, че е саботирал кампанията й, като е предоставил подписи, които в крайна сметка са били невалидни, което й е попречило да влезе в бюлетината. Той отказа да коментира висящи съдебни спорове, но отрече обвиненията в съдебните документи и делото остава отворено.
Той участва и в кампанията на Номики Конст през 2019 г. за обществен адвокат в Ню Йорк, което накара нейния бивш служител по спазването на правилата да подаде официална жалба до агенцията за финансиране на кампанията на града относно мистериозни плащания към фирма в Луизиана с който беше замесен Стив Крамър. Конст твърди, че жалбата е изцяло политическа и е била заведена в съдебен спор със служителя по съответствието, който след това я съди за клевета.
Как беше направен дълбокият фейк
Карпентър показа на NBC News как е създал имитацията на гласа на Байдън, използвайки гласа на репортер като заместник избягвайте да нарушавате условията на споразуменията за услуги на AI платформата срещу неоторизирано използване на гласа на човек.
Той използва Eleven Labs, AI гласов генератор за текст в говор, който е идентифициран от NBC Анализ на новини и външни експерти като инструмент, използван за създаване на автоматично обаждане на Байдън. Той също така използва други предимно безплатни инструменти за изкуствен интелект, за да покаже как може да добави аудио към видео на човек, който говори, и да анимира устните му, за да съвпадат.
„Не ви показвам нищо, което не можете да научите как да правите в YouTube“, каза Карпентър.
Карпентър също демонстрира, че неговите предишният акаунт в Eleven Labs, свързан с основния му имейл адрес, беше затворен от компанията със съобщение, което гласи: „Затворихме акаунта ви поради необичайна дейност.“ Карпентър каза, че акаунтът е бил заключен дни след като NBC News за първи път разпространи историята , което е в съответствие с доклад на Bloomberg, че Eleven Labs е забранил акаунта, който е създал звука на robotocall на 26 януари.
Той е представен безплатно от адвокат, който е намерил в Reddit, Брандън Кизи, защита по наказателни дела и адвокат по Първата поправка, базиран в Детройт.
„Пол не е имал предварителни познания за какво ще се използва съдържанието, генерирано от AI, и Пол не е имал никакви познания за това то ще бъде използвано за потенциално повлияване или използване във връзка с всякакви избори или избирателна дейност“, каза Кизи.
Досега публичната част от разследването на правоприлагащите органи на обажданията е фокусирана на компания за телемаркетинг в Тексас, която според тях е разпространила автоматичните обаждания. Властите в Ню Хемпшир казаха, че са поискали от федералните служители да проверят дали обажданията нарушават Закона за защита на потребителите на телефонни услуги; Законът за истината в Caller ID; и Закона за телемаркетинг и предотвратяване на измами и злоупотреби с потребители.
Фалшивите обаждания на Байдън достигнаха между 5 000 и 25 000 души и „фалшифицираха“ първоначалния номер, според властите, за да се появи в идентификацията на обаждащия се като ако идваха от бившия председател на Демократическата партия на Ню Хемпшир, който по това време водеше кампания за вписване в подкрепа на Байдън.
